2024년 3월 일지
- 2025-07-24
- ← 2024년 2월 일지 → 2024년 4월 일지
2024년 3월 일지
월간 회고
chatplaying을 만들었다.
일지
2024-03-31
chatplaying에 TTS를 붙였다.
TTS 엔진은 OpenAI의 tts-1을 쓰는데 장점들이 좀 있다:
- 확률적stochastic 모델이라 같은 문장도 매번 다르게 읽어주기 때문에 연습하기에 참 좋다. (비용 줄이려고 캐시를 적용하려다가 그냥 이 장점이 커보여서 캐시를 안쓰기로 함)
- 기본 목소리 alloy가 젠더 중립적인 느낌이라 좋음.
2024-03-28
LLM 컨텍스트를 압축할 방법으로 텍스트 지수평활법을 생각해봤다. 아주 유용해보인다.
자연어 레시피를 구조화하는 프로그램을 만들어보고 있다. 그럭저럭 잘 하는 편인데 상용화하려면 미세 조정을 하는 게 좋겠다. 아니면 모델이 더 똑똑해지길 기다리거나.s
2024-03-27
대니얼 카네만이 별세했다. 향년 90세. (기사)
2024-03-24
chatplaying을 만들어서 공개해봤다. 몇몇 사람들이 좋아한다. 언젠가 롤플레잉 게임으로 발전시키면 좋을 것 같아서 “chatplaying”이라는 이름을 붙였다.
2024-03-18
Claude Haiku는 입력 토큰 비용이 출력 토큰 비용의 1/5 밖에 안된다(ChatGPT 3.5 turbo는 1/3). 되도록 파인 튜닝 하지말고 인컨텍스트에서 몽땅 해결하라는 의도인 것 같다. 개발 편의성 측면에선 이게 훨씬 좋다. 많은 경우에, 파인튜닝은 일종의 ‘성급한 최적화’ 같은 느낌.
2024-03-07
AI-Based UX Assessment: The Role of GPT-4V in UX/UI Comparison and Heuristic Evaluation>을 읽고 영감을 받아서 Claude 3 Opus에게 사용성 분석을 시켜봤다. 쿠팡의 상품 목록 화면을 일부 캡쳐하여 제공하고 분석을 요청.
대체로 그럴듯하게 나왔는데 “회상보다는 재인(Recognition rather than recall)“을 “재인보다는 회상”이라고 말하는 환각을 일으키기도 한다. 물론 실수를 지적하면 잘 수용하는 건 언제나 인간보다 AI가 월등히 잘한다 :)
2024-03-06
앤디 클락이 2000년에 Edge에 쓴 Natural-born cyborgs를 다시 읽으니 당시 지나쳤던 내용이 보인다.
- 인공신경망은 뇌와 마찬가지로 패턴 인식엔 능하고 논리에 약함
- 뇌는 여러 외부 도구(연필, 공책 등)을 연결해주는 유연하고 확장성 있는 기관 (참고: 확장된 마음)
- 복잡한 문제를 풀어내는 건 뇌가 아니라 뇌+연필+공책이 합쳐진 전체 시스템
- 인간 뇌의 신경가소성은 진화심리학의 가정보다 높을 것
- 본인의 사상은 D. Rumelhart, P. Smolensky, J. McClelland, 제프리 힌턴 등의 영향을 받음
한편, 겨우 24년 전 글인데 첫 문장이 “My body is an electronic virgin”으로 시작하는 등 쉰내가 나는 점도 눈에 띈다.
2024-03-04
마크 앤드리슨의 기술낙관주의자 선언을 읽었다. 여러모로 나랑은 안맞는 글인데, 동조하는 사람들도 제법 많은 것 같다. 돈많은 미국 백인 남성 엔지니어의 일반적인 정서가 이런건가.
이런 말들은 순진할 뿐 아니라, 악의적으로 순진하다:
- “We have a problem of poverty, so we invent technology to create abundance.”
- “Technology doesn’t care about your ethnicity, race, religion, national origin, gender, sexuality, political views, height, weight, hair or lack thereof.”
2024-03-02
피터 싱어의 강연을 들었다. 80세인데 아직 정정하다. 참고: Peter Singer on Longtermism
2024-03-01
가까운 미래엔 가정용 로봇의 관절 힘 세기를 규제하는 법안 같은 게 생기지 않을까? 대략 노년층 평균과 유사한 정도로. 이러면 덩달아 보편 디자인도 로봇 호환성이라는 명목 하에 더 널리 보급되려나?
세운상가 뒷골목에서 불법 튜닝을 해주고, jailbreaked AI+관절 불법 튜닝된 로봇들이 swarm을 이뤄서 몰려다니며(connected humaniod?) 사회 문제가 됨. 각 가정은 소화전마냥 소형 EMP를 구비. 곧 로봇 생산 공장을 점령한 로봇 swarm은 EMP 저항성 인공 피부와 무기를 개발하기 시작하는데… 🤔